Multi-Token Prediction and Alternative Tokenization Improve Learning Latent Multi-Hop Graph Search at Scale
多Token预测与替代分词改进大规模隐式多跳图搜索学习
🧭 多Token预测与分词改进多跳推理学习
University of Toronto · Vector Institute · Manulife Applied AI Research · Dalhousie University
用多token预测和替代分词突破LLM学习隐式多跳图搜索的规模墙，实现稳定训练
📌 工作参考价值（4 点）
- MTP 可作为辅助训练目标加入生成式推荐/Query 改写模型：若任务需要隐式多步推理（如从用户意图推导 query、从 query 推导商品路径），同时预测未来多个 token 或路径节点，能强化模型对中间步骤的规划能力。
- 分词策略对结构化生成任务影响显著：将图路径、商品序列或意图链按更合适的语义单元编码（如子路径、节点对、结构化 token）替代逐节点编码，可降低序列长度、改善学习稳定性，在电商路径生成中值得单独调优。
- 训练信号与分词是两个正交因素，可以独立迭代；工程实现上可先在现有生成式推荐模型上分别尝试 MTP 和调整 item/path tokenization，无需整体重构。
- 论文使用合成图任务，主要是学术贡献，业务直接迁移有限，但其“扩展墙源于监督信号与分词”的归因可迁移到其他需要长程依赖的生成场景（如会话内多跳推荐、广告序列生成）。